Scaling the Horizon, Not the Parameters: Reaching Trillion-Parameter Performance with a 35B Agent
缩放视野而非参数：用 35B 智能体达到万亿参数性能
🧭 Agent 长时域扩展 · 多教师在线蒸馏 ★ 深度解读
Shanghai Artificial Intelligence Laboratory
构建长轨迹知识-行动图与多教师在线蒸馏，让 35B MoE 智能体在科学、工程、搜索等长程任务上超越万亿参数模型
📌 工作参考价值（8 点）
- 长轨迹过程监督：KAG 构建思路可复用 \
- 论文将搜索、工具调用、验证信号统一为知识-行动图（KAG），每条训练轨迹平均 45K tokens，包含成功与失败的中间步骤。在电商搜索/推荐场景中，多轮对话推荐、深度商品调研等长程任务可借鉴此方式，把用户交互、工具调用、商品浏览记录构建为可训练的过程级监督数据，而非仅依赖最终答案。
- 多教师在线蒸馏的域路由设计 \
- 六个异构领域（搜索、工程、科学、指令跟随、工具调用）各训练一个领域教师，通过域路由的在线策略蒸馏（OPD）合并到单一 35B 学生，避免不同领域梯度冲突。电商中不同品类、不同阶段（召回/排序）的专家模型可用同样方式蒸馏为统一部署模型，通过领域标签路由教师信号，保持各领域专长。
- 显著词汇对齐（SVA）提升蒸馏效率 \
- SVA 仅约束教师高概率 token 子集（top-k 支持集）上的分布，避免全词汇表对齐引入噪声。在推荐生成式语义 ID 或文本答复时，可借鉴该技术，在蒸馏生成任务中聚焦关键 token，提高知识转移稳定性。
- RL 训练中的优势增强与数据复用 \
- 工具调用 RL 中利用过程评分为失败轨迹提供分级奖励（仅负数样本使用过程奖励），并用数据复用（64 个 hard case 反复 rollout）在少量步数内达到高效提升。当业务有少量高质量困难任务时，可复用该策略进行 RL 微调，降低对庞大数据集的依赖。